Boris Yeltsin sinh tại làng Butka, quận Talitsa ở Sverdlovsk Oblast Nga. Cha ông, Nikolai Yeltsin, bị kết tội xúi giục chống Xô viết năm 1934 và đã phải vào trại cải tạo (Gulag) trong ba năm. Sau khi được thả, ông thất nghiệp trong một khoảng thời gian và sau đó làm việc trong ngành xây dựng. Mẹ ông, Klavdiya Vasilyevna Yeltsina, làm thợ may.

Yeltsin học tại Trường trung học Pushkin ở Berezniki, Perm Krai. Ông học khá và trong suốt thời gian học sinh ông luôn là lớp trưởng (староста, starosta). Tuy nhiên, ông tuân thủ kỷ luật kém và hay tỏ ra ngang bướng. Ông tham gia vào các vụ đánh nhau trên đường phố và thường xuyên đối đầu với các giáo viên cũng như cha mình. Trong những sự kiện đó ông luôn là người chiến thắng. Vì vậy, sau khi thấy giấy chứng nhận kết quả học tập trong bảy năm của mình bị thu hồi, ông đã yêu cầu thành lập một ủy ban để điều tra trường hợp đó và cuối cùng cũng nhận được giấy chứng nhận ấy, người giáo viên chịu trách nhiệm việc này bị đuổi việc. Ông đỗ kỳ thi kết thúc 10 năm học khi còn chưa hoàn thành khóa học.

Ông rất ưa thích thể thao (đặc biệt là trượt tuyết, thể dục, bóng chuyền, các môn điền kinh, đấm bốc và đấu vật) dù đã mất hai ngón tay khi ông cùng một số người bạn chui vào một kho vũ khí của Hồng Quân lấy vài quả lựu đạn và chặt chúng ra.

Yeltsin được nhận bằng giáo dục cao học tại Viện Bách khoa Ural ở Sverdlovsk, ngành xây dựng, và tốt nghiệp năm 1955. Đề tài văn bằng của ông là "Tháp truyền hình".

Từ năm 1955 tới 1957 ông làm đốc công tại công ty xây dựng Uraltyazhtrubstroi. Từ 1957 đến 1963 ông làm việc tại Sverdlovsk và được thăng chức từ giám sát công trình lên lãnh đạo Ban giám đốc xây dựng công ty Yuzhgorstroi. Năm 1963 ông trở thành kỹ sư trưởng, và năm 1965 lãnh đạo Tổ hợp xây dựng nhà cửa Sverdlovsk. Ông bắt đầu được xếp vào hàng ngũ cán bộ nguồn (nomenclatura) của Đảng Cộng sản Liên Xô năm 1968 khi được chỉ định làm lãnh đạo phụ trách xây dựng bên trong Ủy ban vùng Sverdlovsk của Đảng. Năm 1975 ông trở thành bí thư ủy ban vùng và chịu trách nhiệm phát triển công nghiệp vùng.